Rose Bay adalah rumah bagi dua sekolah bebas: Kambala (1887), sebuah Anglikan, siang hari dan sekolah berasrama penuh untuk kanak-kanak perempuan dari prasekolah hingga Tahun 12; dan Kincoppal - Rose Bay (1882), sebuah Katolik, sekolah dan sekolah berasrama penuh dengan co-pendidikan sekolah rendah sekolah dan pelajar perempuan sahaja sekolah menengah. Kincoppal - Rose Bay pada awalnya adalah Rose Bay Convent tetapi digabungkan dengan Kincoppal Elizabeth Bay pada akhir tahun 1970-an untuk menjadi "Kincoppal - Rose Bay School of the Sacred Heart". Kampus sekolah persiapan Sekolah Cranbrook (1918) juga terletak di pinggir bandar.[11] Sekolah Rendah McAuley adalah sekolah Katolik untuk Tadika hingga Tahun 6. Ia dibuka pada tahun 1967 di laman web yang merupakan Sekolah Menengah Christian Brothers dari tahun 1935 hingga 1966.[12]

Sekolah awam di pinggir bandar ialah Rose Bay Secondary College (2004) dan Rose Bay Public School (1891). Kolej Menengah Rose Bay dibentuk oleh penggabungan Sekolah Tinggi Vaucluse dan Sekolah Tinggi Dover Heights. Pada asalnya sekolah-sekolah ini dikenali sebagai Vaucluse Boys High, Dover Heights Boys High dan Dover Heights Girls High. Kos untuk memperbaiki kemudahan sekolah awam di Rose Bay dikaitkan dengan penjualan kampus di Vaucluse. Walaupun terdapat lonjakan pendaftaran dan permintaan yang tidak memuaskan untuk tempat sekolah menengah awam di kawasan itu, kampus Vaucluse dijual pada bulan Februari 2007 oleh Kerajaan New South Wales dengan harga $30 juta untuk menjadi tapak pembangunan komuniti warga emas.[13]

Convent of the Sacred Heart menghadap ke teluk dan dapat dilihat dari banyak tempat menarik di sekitar Sydney Harbour. Tapak ini pada asalnya diduduki oleh sebuah rumah bernama Claremont, yang dibina pada tahun 1852. Biara ini menggabungkan rumah ini ketika ia dibina pada tahun 1888. Direka oleh John Horbury Hunt, bangunan baru itu setinggi lima tingkat dan dibuat batu pasir yang digali di lokasi. Ini termasuk Kapel Kebangkitan Gothic dan dianggap sebagai salah satu ciptaan Hunt yang paling berjaya. Kini menempatkan sekolah Kincoppal-Rose Bay untuk kanak-kanak perempuan. Bangunan ini mempunyai senarai warisan Persekutuan.[14]